CLBench-V: Evaluating Multimodal Context Learning from Grounding to Knowledge Acquisition
CLBench-V:多模态上下文学习能力基准,从定位到知识获取
🧭 多模态上下文学习基准与能力分析
Shanghai Jiao Tong University · Zhongguancun Academy · Shanghai Innovation Institute
首个多模态上下文学习基准,解耦上下文定位、信息应用与知识学习三维度,揭示模型严重不足
📌 工作参考价值(4 点)
- 多模态RAG与Agent的评估方法论:可借鉴三维度分类(上下文定位、新信息应用、新知识学习)来诊断Agent在电商商品详情页、广告落地页等多模态上下文中的能力瓶颈,比单纯端到端准确率更细粒度。
- 自动构建评估任务的低成本流水线:论文的自动构造+过滤方法可直接用于生成商品描述理解、图文手册合规性检查等领域的评测数据,降低人工标注成本。
- 模型选型参考:InternVL 3.5 在上下文定位和知识学习上更强,Qwen3.5-Plus 擅长信息应用,指导选型:若业务强依赖从图中提取新规则(如活动规则解读),宜选前者;若侧重直接应用给定信息(如表格问答),后者更优。
- 长多文上下文评估启示:论文分析了上下文长度、图片数量对性能的影响,可启示在商品详情页多图、长文档检索场景下,需针对性优化模型的长上下文窗口和跨图推理。